之前看Andrew大神的視頻有介紹到神經網絡權重需要隨機初始化而不是全初始化為0的問題，其真正深層次的含義沒有弄明白，所以結合一些資料（cs231n課程）希望能讓自己之后再想到這個問題的時候能夠 ...

因為是Jupyter Notebook的形式，所以不方便在博客中展示，具體可在我的github上查看。 github傳送門: deeplearning.ai_JupyterNotebooks ...

譯自：http://willwolf.io/2017/04/19/deriving-the-softmax-from-first-principles/ 本文的原始目標是探索softmax函數與si ...

1. 神經網絡基礎知識 1.1 神經元 神經網絡（Neural Net）是由大量的處理單元相互連接形成的網絡。神經元是神經網絡的最小單元，神經網絡由若干個神經元組成。一個神經元的結構如下： ...

Gradient(F)函數求的是數值上的梯度，假設F為矩陣. >> x=[6,9,3,4,0;5,4,1,2,5;6,7,7,8,0;7,8,9,10,0] x ...

別看本文沒有幾頁紙，本着把經典的文多讀幾遍的想法，把它彩印出來看，沒想到效果很好，比在屏幕上看着舒服。若用藍色的筆圈出重點，這篇文章中幾乎要全藍。字字珠璣。 Reducing the Dimensi ...